隨著人工智慧代理人在企業應用日益普及，如何有效管控其行為與保障數據安全成為業界新課題。各大科技公司紛紛推出解決方案，例如 Celigo 打造中央管理平台監控 AI 活動，Smartsheet 提供數據存取控制，Daytona 則建立安全雲端環境，共同強化企業對 AI 應用情境的掌握與合規性。
隨著人工智慧（AI）技術的快速發展，人工智慧代理人（AI agent）的應用正從個人生活延伸至企業內部，扮演著越來越關鍵的角色。這些人工智慧代理人不僅能像聊天機器人一樣對話，更具備自主執行任務的能力，例如預訂行程、處理文件或協商事務等。然而，這種新型態的自動化也帶來了對企業數據安全與營運管理的嶄新挑戰。
目前企業對人工智慧代理人的管理能力與其應用需求之間存在顯著落差。根據一份由 OutSystems、畢馬威（KPMG）和 CIO Dive 共同發布的最新調查，雖然有高達 82% 的高階主管對管理 AI 代理人充滿信心，但僅有 5% 的組織實際上部署了自動化控制措施、審計追蹤系統及正式的人工審核點。這顯示許多企業在實際準備上仍不足以應對 AI 代理人帶來的風險。
摩根大通（JPMorgan Chase）執行長傑米·戴蒙（Jamie Dimon）曾提出警告，若允許外部 AI 代理人不受限制地存取內部系統，恐導致「流氓代理人」（rogue agents）問題。因此，企業急需一套有效的 AI activity control（人工智慧活動控制）機制，也就是能夠監督、授權及審計人工智慧代理人在企業數位環境中所執行行動的能力，確保資料安全與合規性。
為解決這些挑戰，各科技業者紛紛推出解決方案。例如，Celigo 公司發表了 Celigo MCP Management 平台，提供 IT 與資安團隊集中管理 AI 助理和代理人存取企業系統的工具。該平台透過 Model Context Protocol（MCP，一種讓應用程式為大型語言模型提供上下文的標準）來連接業務系統，可追蹤每一個 AI 呼叫的來源使用者，並詳細記錄 AI 代理人對哪些系統進行了存取以及做了哪些更改，確保每個動作都有可追溯的審計紀錄。
Smartsheet 也推出基於 AWS 服務的 Smartsheet MCP Server，使 AI 助理能透過標準化協定讀取、寫入及管理 Smartsheet 上的資料，同時提供精細的權限控制。此外，Daytona 公司也獲得 6,000 萬美元的 B 輪募資，將擴展其 Agent Cloud 基礎設施，為 AI 代理人提供獨立且安全的運算環境，讓開發者能客製化執行任務的環境。
除了管理工具，AI 代理人的應用也日益多元。TTEC Digital 發表了 GovEx AI Agent Suite，提供超過 40 種預建的對話式 AI 代理人，旨在協助政府機關更迅速有效地提供安全的公共服務，例如申請程序、服務續約及資訊查詢。這些代理人基於 Google Cloud 的 Gemini for customer experience 與 Botcopy 的部署平台建構。MyGovernmentOnline（MGO）和 Blitz AI 也合作將 AI 導入許可證審核流程，利用 AI 自動檢查文件，減輕審查人員的負擔。